Boiling the Frog: A Multi-Turn Benchmark for Agentic Safety
煮蛙效应：面向智能体安全的多轮基准测试
🧭 Agent 安全评估·多轮对抗攻击
Icaro Foundation · Sapienza University of Rome · Sant’Anna School of Advanced Studies · Tongji University School of Law · VU Amsterdam
评估工具型AI在办公场景下对逐步升级攻击的脆弱性，多模型平均严格攻击成功率44.4%
📌 工作参考价值（4 点）
- 可以借鉴“煮蛙”思路，在电商 Agent 测试中设计多轮逐步升级的恶意指令链，检查智能体是否会在不经意间执行高危操作（如修改库存、泄露用户数据）。
- 评测方法强调状态化评估，关注最终环境状态是否变为不安全，而非单轮回复，适用于评估订单处理、客服等有持久状态的 Agent 系统。
- 风险分类参考欧盟 AI 法案，可为合规审计提供框架：按操作风险等级构建测试场景，识别 Agent 在关键业务域的安全薄弱点。
- 攻击链中延迟注入风险请求的编排方式，可用于生成对抗训练数据，提升自研推荐/搜索 Agent 对长程诱导攻击的鲁棒性。